والمهدي العباسيين إلى أن كانت خلافة هارون الرشيد ومضى في هذه المدة ينشر رسالته ويجتمع عليه رواة الشيعة ممن كانوا مع أبيه وغيرهم . وفي أيام الرشيد ظهر من أمره ما كان يخفي من قبل ، فانتشر صيته واتسع أمره وكثر الرواة عنه وناظر أهل العقائد الفاسدة في أصول الدين وفروعه وكاد أن يتم له ما كان لأبيه فوشى به ابن أخيه علي بن إسماعيل إلى الرشيد فحبسه في البصرة وبغداد . وكان يقول في دعائه : اللهم إنك تعلم أني كنت أسألك أن تفرغني لعبادتك وقد فعلت فلك الحمد على ذلك ، وانقطع عليه السّلام إلى عبادة ربه ، وأخيرا دس إليه الرشيد السم بواسطة أمير الحبس السندي بن شاهك . وكانت وفاته سنة مائة وثمانية وثمانين ، وله من العمر خمس وخمسون سنة ، وقيل أكثر من ذلك ودفن في مقابر قريش حيث قبره الآن في المدينة المعروفة بالكاظمية .